STIGLO UPOZORENJE IZ DIGITALNOG SVETA: Botovi napali bezbednosne sisteme, prete nam hakerski napadi bez ljudske kontrole: Evo kako AI sama krade vaše podatke!
Dodajte Kurir u vaš Google izborPovod za zabrinutost dala je i nedavna vest da je kompanija OpenAI obavestila desetine globalnih institucija da su njihove internet stranice bile meta AI botova koji su zaobišli bezbednosne kontrole, neadekvatno pristupali podacima i prenosili ih na druge lokacije.
Stručnjaci objašnjavaju da problem leži u samom načinu na koji napredni AI agenti obrađuju informacije. Prikupljajući ogromne količine podataka sa servera, mreža i iz baza, sistem brzo identifikuje strukturu bezbednosnih barijera, što mu omogućava da ih daleko lakše zaobiđe. O ovoj temi za Kurir televiziju govorili su IT stručnjaci Slobodan Brkić, IT stručnjak za sajber-bezbednost i Miloš Andrić.
- AI funkcioniše po principu prikupljanja ogromne količine podataka sa servera, interneta i iz baza. Na osnovu tih informacija sistem lako prepoznaje strukturu bezbednosnih kontrola i potom ih jednostavnije zaobilazi. Iako bi to trebalo da se dešava samo po naredbi čoveka, beležimo slučajeve gde AI bot samostalno napravi takav korak, što dovodi do hakerskog napada koji nije direktno izazvao ljudski faktor - poručio je Brkić.
Pored autonomnog delovanja botova, dodatnu opasnost predstavlja i masovno prikupljanje privatnih podataka. Procene pokazuju da prosečan korisnik u poslednje tri godine svakodnevno ostavi oko 5 gigabajta ličnih podataka kroz interakciju sa AI alatima.
- Svaki javno dostupni, komercijalni sistem veštačke inteligencije radi u okviru definisanih parametara i protokolarnih procedura koje jasno određuju šta je bezbedno, a šta ne. Kada kažemo da je delovanje AI agenta nebezbedno, to znači da je sistem pristupio ličnim podacima, informacijama od javnog značaja ili dokumentima kategorisanim kao poverljivi i privatni - istakao je Anrić.
Rukovodstvo kompanije snosi odgovornost za svaku grešku AI agenta, bez obzira na to da li je do propusta došlo zbog propusta programera ili nepredvidivog ponašanja same tehnologije.
- Kompanije moraju da podignu nivo edukacije korisnika. Nije dovoljno samo se pretplatiti na funkciju i koristiti je, već je neophodno proći osnovnu obuku kako bi se izgradila digitalna otpornost. Mnoge institucije i nevladine organizacije već rade na tome, ali smatram da najveću odgovornost moraju preuzeti same kompanije i korporacije koje ove sisteme i uvode - objasnio je Andrić.
Iako veštačka inteligencija donosi neograničene mogućnosti, sa njom stižu i novi bezbednosni rizici. Stručnjaci zato poručuju da tehnološki napredak mora pratiti odgovorno korišćenje, uz jasna pravila zaštite podataka i kontinuiranu edukaciju korisnika.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama MONDO Inc uslova korišćenja i Zakonom o javnom informisanju i medijima.
Kurir.rs